Početci Knjižnice sežu u 1606. godinu kada su isusovci na Gradecu osnovali knjižnicu uz svoj kolegij. Prvi podatci o upisanim knjigama su iz 1611., a nakon ukidanja isusovačkog reda (1773.) osnovana je Kraljevska zagrebačka akademija znanosti koja je preuzela cjelokupnu biblioteku premjestivši je u svoju zgradu na Katarinskom trgu. Godine 1874., osnutkom Sveučilišta Franje Josipa, Akademijina knjižnica postaje Kraljevskom sveučilišnom knjižnicom te se premješta u zgradu današnjeg Rektorata Sveučilišta na Trgu Republike Hrvatske. U zgradu na Marulićevom trgu premještena je 1913. godine, a 1960. preimenovana je u Nacionalnu i sveučilišnu biblioteku. Preseljenjem u novu zgradu 1995. u imenu je riječ biblioteka zamijenjena sa knjižnica.